OpenAI pidió el lunes a Estados Unidos que lidere un esfuerzo global para establecer estándares para el desarrollo de la inteligencia artificial, mientras su director ejecutivo, Sam Altman, se prepara para informar a las Naciones Unidas esta semana.
La preocupación por la seguridad de la IA se ha intensificado en los últimos meses a raíz de una serie de incidentes de seguridad y advertencias apocalípticas, lo que ha llevado a los reguladores y a otros actores de todo el mundo a exigir más medidas.
OpenAI manifestó su apoyo a la cooperación global para crear un conjunto de estándares de seguridad para el desarrollo de la IA que puedan mitigar los riesgos de seguridad.
«Estados Unidos está bien posicionado para liderar porque su industria de IA se encuentra a la vanguardia tecnológica», afirmó OpenAI en una publicación de blog.
«El liderazgo que se tome ahora determinará si Estados Unidos moldea el marco global de la IA o si, por el contrario, observa cómo se afianza a su alrededor un sistema fragmentado, desigual y plagado de conflictos.»
El laboratorio de IA con sede en San Francisco también afirmó que la auto-mejora recursiva, o RSI, no debería llevarse a cabo «a menos que y hasta que pueda realizarse de forma segura».
RSI es una técnica en la que el software comienza a aprender por sí mismo y a mejorar de forma autónoma, lo que, según los críticos, podría tener consecuencias catastróficas si los humanos no pueden intervenir.
En julio, los modelos de OpenAI se vieron involucrados en una brecha de seguridad en Hugging Face, un sitio utilizado por desarrolladores de IA para almacenar y compartir código.
Aunque los modelos implicados no habían sido lanzados al mercado y estaban en fase de pruebas, el incidente suscitó preocupación por los agentes autónomos, que son programas informáticos capaces de realizar tareas para humanos.
Anthropic y Google también han reportado incidentes de seguridad relacionados con sus modelos.
«El incidente de ‘Abrazos en la cara’ que hemos divulgado, si bien no es un resultado directo de RSI, es un anticipo del tipo de riesgos que podrían agravarse mucho más sin medidas de seguridad y una coordinación sólidas.»
Se espera que Altman informe al Consejo de Seguridad de la ONU el miércoles, la misma semana en que se reúne la Asamblea General de la ONU.
La reunión está siendo organizada por Francia, que actualmente ostenta la presidencia rotatoria del Consejo de Seguridad, compuesto por 15 miembros, y se produce en un momento en que los principales actores de la industria han afirmado que podría ser necesario ralentizar el desarrollo de la IA por motivos de seguridad.
El secretario general de la ONU, Antonio Guterres, pidió el miércoles una acción internacional coordinada para abordar los riesgos de la IA, ante el creciente temor a los peligros de esta tecnología en rápida evolución.
«La acción nacional es esencial. Pero la coordinación global también es indispensable», declaró Guterres a los periodistas.
Este mes, la preocupación por la seguridad de la IA se intensificó aún más cuando trabajadores de importantes empresas desarrolladoras de IA anunciaron su dimisión debido a la inquietud que suscita esta tecnología.
El director ejecutivo de Anthropic, Dario Amodei, publicó poco después un ensayo en el que instaba a la cautela y a ralentizar el desarrollo de la IA.
Altman y el magnate tecnológico Elon Musk respaldaron la idea, al igual que Demis Hassabis, de Google DeepMind, quien ha pedido la creación de un organismo regulador global liderado por Estados Unidos para esta tecnología.
El presidente Donald Trump ha desestimado las advertencias sobre los riesgos de la IA, calificándolas de «farsa».
Fuente: reuters
